Equilibrium Reasoners: Learning Attractors Enables Scalable Reasoning
平衡推理器：通过吸引子学习实现可扩展推理
🧭 迭代推理 · 吸引子动力学 ★ 深度解读
CMU
将迭代推理模型视为学习任务条件吸引子，通过塑造吸引子景观实现测试时深度与广度双轴扩展，无需外部验证器即可大幅提升推理性能。
📌 工作参考价值（4 点）
- 深度与广度双轴扩展框架：可将迭代更新模块（如推荐系统中的多步状态精炼或 Agent 的多轮推理）设计为权重绑定形式，通过增加迭代步数（深度）和并行采样不同初始状态（广度）来提升性能，并利用残差作为收敛信号提前终止或筛选最优轨迹。
- 训练技巧：随机初始化和路径噪声：在训练多步迭代模型时，用随机潜状态初始化替代固定初始化，并注入轻微噪声，可以扩大正确解的吸引盆地，提高泛化能力和在不同重启下的稳定性。这一思路可迁移到生成式推荐或 Agent 策略训练中，增强对初始条件的鲁棒性。
- 自适应计算分配：结合 ACT 机制，根据样本难度动态分配迭代步数，减少简单样本的浪费计算，将更多资源留给困难样本。在电商搜索或广告系统中，对于简单查询可提前终止深度推理，保持低延迟，复杂查询则允许更多步精炼。
- 残差作为内在置信度：利用固定点残差（∥f(z)-z∥）作为模型自身的置信度指标，无需外部验证器即可进行 top-1 选择或提前停止。在生成式推荐解码或多智体协作中，可使用类似自一致性信号来动态调整计算量或融合候选结果。